ADAPT: Attention Dynamics Alignment with Preference Tuning for Faithful MLLMs
ADAPT：通过注意力动态对齐与偏好调优实现可信多模态大模型
🧭 MLLM幻觉缓解 · 跨注意力动态干预
University of Science and Technology of China · Huawei Technologies Ltd. · State Key Laboratory of Communication Content Cognition, People's Daily Online
从文本-图像跨注意力退化中检测并纠正幻觉，结合视觉锚点与偏好对齐，将主流模型幻觉率降低40%–60%
📌 工作参考价值（4 点）
- 生成式推荐中的视觉锚定：在商品文案、图文搭配生成时，可借鉴ADAPT的早期解码提取视觉锚点，约束后续生成对图像关键区域保持高注意力，减少描述与图像不符的幻觉。
- 在线注意力漂移检测与修正：在Agent多模态交互（如视觉问答、商品搜索）中，可监控跨注意力分布的熵或偏移量，实时触发重聚焦或重新解码，提升回复的视觉忠诚度。
- 偏好数据构造新思路：利用注意力质量作为对比信号，自动筛选视觉grounding好的响应作为正例，无需人工标注即可构造DPO偏好对，低成本提升模型对齐效果。
- 模型架构无关的轻量插件：该方法无需修改原模型结构，只改变推理时的注意力使用与少量微调，可快速集成到现有MLLM pipeline中，适合业务快速验证与迭代。